Microsoft trước đó đã đầu tư vào các dịch vụ nhạc với nhãn hiệu Zune. Zune Music Marketplace đã bao gồm 11 triệu bài hát. Dòng các máy nghe nhạc Zune và cửa hàng Zune đã không được thành công, và nhãn hiệu này đã bị ngừng vào đầu những năm 2010, mặc dù nó vẫn tiếp tục có mặt trên nhiều thiết bị và Zune Music Pass vẫn cho phép truy cập không giới hạn các bài hát với giá 9.99 USD mỗi tháng.[10]

Trong lúc đó, Microsoft đang nhấn mạnh tới sức mạnh của nhãn hiệu Xbox của họ vì tính hấp dẫn của nó đối với người tiêu dùng. Công ty đã mở rộng các dịch vụ đa phương tiện qua Xbox Live để đi kèm thêm các dịch vụ như một cửa hàng video và chợ trò chơi trực tuyến. Họ đã quyết định sẽ giới thiệu một dịch vụ nhạc mới để xây dựng dựa trên những tính năng sẵn có trên.[cần dẫn nguồn]

Microsoft giới thiệu dịch vụ mới của mình trong cuộc họp báo của họ tại Electronic Entertainment Expo 2012 vào ngày 4 tháng 6. Xbox Music được bắt đầu cùng với dịch vụ Xbox Video vào ngày 16 tháng 10 năm 2012.[11]

Vào ngày 6 tháng 7 năm 2015, Microsoft công bố việc thay đổi nhãn hiệu từ Xbox Music thành Groove để gắn với việc phát hành Windows 10 sắp được diễn ra. Nhãn hiệu mới sử dụng thương hiệu "Groove" mà Microsoft trước đó đã sử dụng cho một sản phẩm khác không có liên quan Microsoft Office Groove (bây giờ là OneDrive for Business). Joe Belfiore giải thích việc đổi nhãn hiệu nhằm tách dịch vụ này ra khỏi dòng sản phẩm Xbox, khiến nó bao gồm cả các nền tảng không phải Xbox khác.[12][13][14]

Vào ngày 17 tháng 9 năm 2015, theo một bản cập nhật hệ thống cho Xbox 360, tên của ứng dụng đã thay đổi theo nhãn hiệu mới.[15] Ứng dụng cho Xbox One trước đó cũng được thay đổi trong một bản cập nhật.

Microsoft thông báo ngày 2 tháng 10 năm 2017 rằng hãng sẽ đóng cửa dịch vụ Groove Music Pass và xóa bỏ toàn bộ các bài hát đang bán trên Windows Store trước ngày 31 tháng 12 năm 2017. Microsoft đã hợp tác với Spotify nhằm cho phép khách hàng chuyển các bài hát và danh sách phát của mình sang dịch vụ Spotify. Sau ngày 31 tháng 12 năm 2017, ứng dụng Groove sẽ chỉ phát các bài hát đã được tải về thiết bị hoặc được lưu trữ trên đám mây của khách hàng.[9]